Лекция 9. Многомерные случайные величины

1. Основные характеристики многомерных случайных величин

Определение 1.   Для непрерывной n - мерной случайной величины (случайного вектора)

X

Δ =

col(X1, ... , Xn),

где X₁, ... , X_n - скалярные СВ, функция распределения F(x) и плотность распределения f(x), которая неотрицательна, определяются следующим образом:

F(x1, ... , xn)

Δ =

P{X1 ≤ x1, ... , Xn ≤ xn}

Δ =

x1   ∫ -∞

...

xn   ∫ -∞

f(x1, ... , xn) dx1...dxn

Замечание 1.   Основные результаты, полученные для двумерных СВ, переносятся и на n-мерную СВ. В частности, в точках непрерывности плотности выполнено равенство

f(x1, ... , xn) =

∂n ∂x1...∂xn

F(x1, ... , xn) .

Определение 2.   Математическим ожиданием (МО) случайного вектора X называется вектор

M[X]

Δ =

mX

Δ =

col(m1, ... , mn),   где

mi

Δ =

M[Xi] , i = 1,n.

Замечание 2.   МО случайного вектора X есть вектор координат "средней" точки (m₁, ... , m_n) в n-мерном пространстве Rⁿ, вокруг которой группируются реализации случайного вектора X.

Определение 3.   Матрицу K размерности n x n с элементами

kij

Δ =

M[(Xi - mi)(Xj - mj)]

называют ковариационной. Элементы k_ij ковариационной матрицы являются ковариациями СВ X_i и X_j при i ≠ j, а диагональные элементы k_ij - дисперсии СВ X_i, т.е.

kij

Δ =

di

Δ =

(σi)2 = M[(Xi - mi)2] , i = 1,n.

Замечание 3.   Дисперсии d_i, i = 1,n, характеризуют рассеивание реализаций компонент случайного вектора относительно средней точки m_X = col(m₁,..., m_n), а ковариации k_ij - степень линейной зависимости между СВ X_i и X_j. В частности, по свойству 2)k_XY при линейной связи между X_i и X_j ковариация между ними равна k_ij = ±σ_iσ_j. Так как по свойству 1)k_XY всегда |k_XY| ≤ σ_iσ_j, то при линейной зависимости между X_i и X_j модуль |k_ij| максимален.

Определение 4.   Нормированную ковариационную матрицу R, элементами которой являются коэффициенты корреляции r_ij, называют корреляционной матрицей.

Замечание 4.   Матрицы K и R неотрицательно определены и симметричны, так как

kij

Δ =

M[(Xi - mi)(Xj - mj)] = M[(Xj - mj)(Xi - mi)]

Δ =

kji.

Определение 5.   СВ X₁, ... , X_n называются независимыми, если

F(x1, ... , xn) =

n ∏  i=1

Fi(xi) ,

где F_i(x) - функция распределения СВ X_i.

Определение 6.   СВ X₁, ... , X_n называются некоррелированными, если k_ij = 0 при всех i ≠ j.

Замечание 5.   Если СВ X₁, ... , X_n независимы, то они являются и некоррелированными. Обратное утверждение неверно.

Замечание 6.   Если СВ

X

Δ =

col(X1, ... , Xn)

является непрерывной, то для независимости X₁, ... , X_n необходимо и достаточно, чтобы

f(x1, ... , xn) =

n ∏  i=1

fi(xi) .

Этот факт доказывается по индукции на основе свойства 8)f(x,y) для двух случайных величин.

С в о й с т в а   M[X] и D[X] :

1)  

M[

n ∑ i=1

Xi] =

n ∑ i=1

M[Xi] .

Пусть

Z

Δ =

col(X,Y)

- двумерный случайный вектор. По свойству 7)f(x,y) имеем

M[X + Y] =

+∞   ∫ -∞

+∞   ∫ -∞

(x + y)f(x,y) dxdy =

+∞   ∫ -∞

x

[

+∞   ∫ -∞

f(x,y)dy

]

dx +

+

+∞   ∫ -∞

y

[

+∞   ∫ -∞

f(x,y)dx

]

dy

6)f(x,y)     =

=

+∞   ∫ -∞

xfx(x) dx +

+∞   ∫ -∞

yfy(y) dy

Δ =

M[X] + M[Y].

Общая формула доказывается по индукции.

2)   Если СВ X_i, i = 1,n , независимы, то

M[

n ∏ i=1

Xi] =

n ∏ i=1

M[Xi] .

Пусть

Z

Δ =

col(X,Y), тогда

M[XY]

7)f(x,y)     =

+∞   ∫ -∞

+∞   ∫ -∞

xyf(x,y) dx dy

8)f(x,y)     =

+∞   ∫ -∞

+∞   ∫ -∞

xyfX(x)fy(y) dx dy =

=

+∞   ∫ -∞

xfX(x) dx

+∞   ∫ -∞

yfy(y) dy = M[X]M[Y].

Общая формула доказывается по индукции.

3)  

D[

n ∑ i=1

Xi] =

n ∑ i=1

D[Xi]  + 2

∑ i<j

kij  .

Пусть

Z

Δ =

col(X,Y), тогда

тогда

D[X + Y] = M[(X + Y - M[X + Y])2]

1)M[X]     =

M[(X + Y - (mX + mY))2] =

= M[((X - mX)+(Y - mY))2]

1)M[X]     =

M[(X - mX)2] + M[(Y - mY)]2] +

4)   Если СВ X_i, i = 1,n, попарно некоррелированы, т.е. k_ij = 0 при i ≠ j, то из свойства 3)M[X] следует

D[

n ∑ i=1

Xi] =

n ∑ i=1

D[Xi] ,

5)   |r_ij| ≤ 1 при i ≠ j. Обозначим

X

Δ =

Xi, Y

Δ =

Yi.

Пусть σ_X > 0. Предположим вначале, что r_XY > 0, и покажем, что в этом случае r_XY ≤ 1. Рассмотрим новую СВ

Z

Δ =

kM[Y], где k

Δ =

σX σYrXY

.

Ясно, что M[Z] = kM[Y], D[Z] = k²D[Y] и σ_Z = kσ_Y = σ_X / r_XY. Кроме того,

rXZ =

kXZ σXσZ

=

M[(X - mX)(kY - kmY)]             kσYσY

=

kXY σXσY

= rXY.

Теперь учтем, что D[X - Z] ≥ 0, т.к. по определению дисперсия не может быть отрицательной. Тогда согласно свойству 3)M[X] имеем

Учитывая, что D[X] = (σ_X)², D[Z] = (σ_Z)², k_XZ = r_XZσ_Xσ_Z, получаем (σ_X)² - 2r_XZσ_Xσ_Z + (σ_Z)² ≥ 0. Сделаем следующее преобразование:

По определению СВ Z имеем σ_Z = σ_X / r_XZ, т.к. выше показано, что r_XZ = r_XY. Поэтому первое слагаемое в правой части неравенства равно нулю, кроме того, (σ_Z)² > 0, по предположению. Тогда из полученного неравенства вытекает, что 0 < r_XY ≤ 1.

С помощью аналогичных рассуждений можно доказать, что в случае r_XY < 0 справедливо неравенство -1 ≤ r_XY <0 . Таким образом, мы установили, что |r_XY| ≤ 1.

2. Многомерное нормальное распределение

Определение 1.   n-мерная СВ

X

Δ =

col(X1, ... , Xn)

имеет невырожденное нормальное (гауссовское) распределение, X ~ N(m,K), если ее плотность распределения есть

fX(x) =

1 __________   _________ √(2π)ndet K

exp

{

-

1 2

(x-m)TK-1(x-m)

}

,

где det K - определитель положительно определенной матрицы K,

m

Δ =

col(m1, ... , mn)

- МО n-мерной СВ X, K - ковариационная матрица СВ X,

x

Δ =

col(x1, ... , xn).

Замечание 1.   Так как матрица K - невырожденная, то каждая i-я компонента X_i вектора X распределена нормально.

Замечание 2.   СВ

Y

Δ =

α1X1 + ... + αnXn ,

где X₁, ... , X_n - нормально распределенные вектора одной размерности, α₁, ... , α_n О R¹ и n = 1,2,..., имеет также нормальное распределение.

Замечание 3.   Если X ~ N(m,K), то

Y

Δ =

AX + b ,

где A - матрица размерности n x k с rangA = k и b - вектор размерности k < n имеет распределение N(m_Y,K_Y), где m_Y = Am + b, K_Y = AKA^T.

Замечание 4.   Если случайный вектор имеет нормальное распределение, а его компоненты попарно некоррелированы, то

f(x1, ... , xn) =

1 σn√2π

exp{-

(x1-m1)2   2σn2

} ...

...

1 σ1√2π

exp{-

(xn-mn)2   2σn2

} = f1(x1) ... fn(xn),

т.е. СВ X₁, ... , X_n независимы. Но из независимости следует некоррелированность (Л9.Р1.З5), поэтому для нормального распределения условия некоррелированности и независимости эквивалентны.

3. Биржевой парадокс

Рассмотрим любопытный экономический пример. Пусть имеется начальный капитал K, который требуется увеличить. Для этого имеются две возможности: вкладывать деньги в надежный банк и покупать на бирже акции некоторой компании. Пусть u - доля капитала, вкладываемая в банк, а v - доля капитала, расходуемая на приобретение акций. Очевидно, что 0 ≤ u + v ≤ 1. Предположим, банк гарантирует b x 100% > 0 годовых, а акции приносят X x 100% годовых. Так как предполагается, что банк абсолютно надежен, то b является неслучайной величиной. Стоимость акций, как правило, меняется в течение года, т.е. X является случайной величиной. Допустим, что приобретение акций в среднем более прибыльно, чем вложение средств в банк, т.е.

mX

Δ =

M[X] > b > 0.

Но при этом имеется ненулевая вероятность того, что акции обесценятся и мы потеряем все деньги, вложенные в акции, P{X ≤ -1} = ε > 0.

Таким образом, мы можем надеяться, что через год капитал составит величину K₁ = K(1 + bu + Xv), которая является случайной. Рассмотрим также ожидаемое через год среднее значение капитала:

K0(u,v)

Δ =

M[K(1 + bu + Xv)] = K(1 + bu + mXv).

Поставим задачу распределить капитал таким образом, чтобы максимизировать средний доход за год:

K0(u0,v0) =

max u+v≤1,u≥0,v≥0

K0(u,v).

Нетрудно найти решение этой простой задачи линейного программирования. Так как по условию задачи m_X > b > 0, то, очевидно, все деньги нужно вкладывать в акции, которые в среднем более прибыльны, чем вложение в банк, т.е. u₀ = 0, v₀ = 1. При такой стратегии среднее значение капитала через год будет максимально:

Выясним, к чему приведет такая стратегия управления капиталом, если применять ее многократно. Пусть X_i, i = 1,n, - ежегодный прирост капитала за счет приобретения акций. Предположим, что СВ X_i, i = 1,n, независимы. Пусть u_i = 0, v_i = 1, 1,n, т.е. ежегодно покупаются только акции, которые в среднем более прибыльны, чем вложение в банк, M[X_i] = m_X > b > 0. Тогда среднее значение капитала через n лет составит величину

Kn

Δ =

M[K

n ∏  i=1

(1 + Xi)]

2M[X]     =

K

n ∏  i=1

(1 + M[Xi]) = K(1 + mX)n.

Так как по предположению m_X > 0, то 1 + m_X > 1. Поэтому при n → ∞ получаем K_n → ∞. Образно говоря, при таком управлении капиталом можно стать неограниченно богатым "в среднем''. Посмотрим, что происходит с вероятностью нашего разорения при выбранной стратегии

P(Bn)

Δ =

P(A1 + ... + An),

где событие

Ai

Δ =

{Xi : 1 + Xi ≤ 0}

характеризует разорение в i-й год, а событие

Bn

Δ =

A1 + ... + An

возможность разорения хотя бы один раз за n лет.

Рассмотрим противоположное событие B_n = Ω \ B_n. Воспользовавшись свойством 11)A, находим

Bn =

n ∏  i=1

Ai ,   где Ai = {Xi : 1 + Xi ≤ 0}.

Так как СВ X_i независимы, то независимы также события A_i, i = 1,n. Поэтому в силу замечания Л3.Р1.З4 имеем

P(Bn) =

n ∏  i=1

P(Ai) =

n ∏  i=1

P{Xi + 1 > 0}.

Но по предположению P(A_i) = P{X_i ≤ -1} = ε > 0, т.е. с ненулевой вероятностью можно потерять весь капитал в каждый i-й год. Поэтому P(A_i) = 1 - P(A_i) = 1 - ε < 1. Отсюда следует, что

Замечание 1.   На практике, чтобы преодолеть этот парадокс используют так называемую логарифмическую стратегию, которая определяется из следующего условия

K0(uL,vL) =

max u+v≤1,u≥0,v≥0

M[ln(1 + bu + Xv)],

т.е. из условия максимизации средней скорости роста капитала. В частности, иногда предполагают, что СВ

Y

Δ =

1 + X

имеет логнормальное распределение (см. определение Л6.Р5.О1). При логарифмической стратегии капитал всегда распределяется в некоторых пропорциях между покупкой акций и вложением в банк.

Замечание 2.   Следует также отметить, что рассмотренный пример хорошо иллюстрирует особенность поведения случайной последовательности

Zn

Δ =

K

n ∏  i=1

(1 + bvi + Xivi) при n → ∞.

В отличие от детерминированной последовательности случайная последовательность может сходится в разных смыслах и к разным значениям. В данном примере Z_n → ∞ в среднем и в то же время Z_n → 0 по вероятности (эти понятия будут введены в лекции 10).

Лекция 10.
Оглавление